Exploring Autonomous Agentic Data Engineering for Model Specialization
探索自主智能体数据工程实现模型专业化
🧭 Agent 驱动的数据工程与模型专业化 ★ 深度解读
Zhejiang University · Platform and Content Group, Tencent
将数据工程形式化为端到端闭环任务，让LLM自主策划训练数据以驱动学生模型专业化，在三个领域取得显著增益
📌 工作参考价值（4 点）
- 用 Agent 闭环自动化领域微调数据生产：借鉴 Iterative Agent 架构，将数据策展建模为 Draft→Debug→Repair→Improve 迭代循环，利用学生模型在公开验证集上的性能作为反馈信号，贪心地选择历史最佳提交，可复用于电商推荐场景的指令数据合成（如商品描述生成、搜索词改写）。只需提供任务描述、种子池和 API 预算，无需人工设计数据流水线。
- 多样性比质量更依赖迭代：分析显示，迭代主要提升生成数据的多样性（instruction/response diversity），而响应质量提升有限。在构建商品/店铺推荐数据时，可重点通过迭代扩展问题覆盖范围，避免重复生成高难度但同质化的样本。
- 用 Greedy Public-Score Selection 提升鲁棒性：由于合成数据引入高方差，单次提交可能性能骤降。采用贪心策略保留公开集上历史最佳提交，能显著减少灾难性遗忘与波动，这一简单方法可直接用于 Agent 驱动的数据优化管线。
- 警惕 LLM 的数据量保证缺失与格式处理陷阱：实验显示主流 Agent 普遍缺乏对最终数据集大小的主动校验，且在处理 LaTeX/代码等复杂格式时大量样本被过滤。在生成电商知识问答数据时，务必在 Agent 工作流中显式加入数量检查和格式补全模块，必要时限制单次数据生成逻辑的复杂度，避免 API 输出截断。